Войнстващи групи експериментират с AI и се очаква рисковете да растат

ВАШИНГТОН (АП) — Докато останалият свят се втурва да употребява силата на изкуствения разсъдък, въоръжени групи също опитват с технологията, даже и да не са сигурни какво тъкмо да вършат с нея.

За екстремистките организации AI може да бъде мощен инструмент за набиране на нови членове, създавайки реалистични надълбоко подправени изображения и прецизиране на техните хакерски атаки, предизвестиха специалисти по национална сигурност и шпионски организации.

Някой, разгласил на уеб страница на про-Ислямска страна предишния месец, прикани други поддръжници на ИД да създадат ИИ част от своите интервенции. „ Едно от най-хубавите неща за AI е какъв брой елементарен е за потребление “, написа потребителят на британски.

„ Някои разследващи организации се тормозят, че AI ще способства (за) набиране “, продължи потребителят. „ Така че превърнете кошмарите им в действителност. “

IS, която беше завзела територии в Ирак и Сирия преди години, само че в този момент е децентрализиран съюз от войнствени групи, които споделят насилствена идеология, осъзна преди години, че обществените медии могат да бъдат мощен инструмент за рекрутиране и дезинформация, тъй че не е изненадващо, че групата тества AI, споделят специалисти по национална сигурност.

За едва сплотени, едва финансирани екстремистки групи — или даже обособен неприятен артист с уеб връзка — AI може да се употребява за изпомпване на агитация или дълбоки подправени мащаби, разширение на техния обсег и разширение на въздействието им.

„ За всеки съперник AI в действителност прави доста по-лесно да се вършат нещата “, сподели Джон Лалиберте, някогашен откривател на уязвимости в Агенцията за национална сигурност, който в този момент е основен изпълнителен шеф на компания за киберсигурност ClearVector. „ С AI даже дребна група, която няма доста пари, към момента е в положение да окаже въздействие. “

Как опитват екстремистките групи

Военстващите групи започнаха да употребяват AI незабавно откакто стратегии като ChatGPT станаха необятно налични. През годините от този момент те от ден на ден употребяват генеративни AI стратегии за основаване на реалистично изглеждащи фотоси и видео.

Когато е обвързвано с логаритми на обществени медии, това подправено наличие може да помогне за набиране на нови вярващи, да обърка или изплаши врагове и да популяризира агитация в мащаб, немислим единствено преди няколко години.

Такива групи популяризират подправени изображения преди две години на войната Израел-Хамас, изобразяващи окървавени, изоставени бебета в бомбардирани здания. Изображенията провокираха отвращение и поляризация, като в същото време скриха същинските ужаси на войната. Насилствени групи в Близкия изток използваха фотосите, с цел да набират нови членове, както направиха антисемитски омразни групи в Съединени американски щати и другаде.

Нещо сходно се случи предходната година, откакто офанзива, поета от филиал на ИД, умъртви близо 140 души на концертно място в Русия. В дните след стрелбата пропагандни видеоклипове, основани с изкуствен интелект, се разпространиха необятно в дискусионните табла и обществените медии, търсейки нови вербувани лица.

IS също по този начин е основала дълбоки подправени аудиозаписи на свои лични водачи, които рецитират трудове, и е употребила AI за бърз превод на известия на голям брой езици, съгласно откриватели от SITE Intelligence Group, компания, която наблюдава екстремистки действия и е разследвала разрастващото се потребление на IS от страна на IS. AI.

„ Аспирационен “ — към този момент

Такива групи изостават от Китай, Русия или Иран и към момента преглеждат по-сложните използва на ИИ като „ аспирационни “, съгласно Маркъс Фаулър, някогашен сътрудник на Централно разузнавателно управление на САЩ, който в този момент е основен изпълнителен шеф на Darktrace Federal, компания за киберсигурност, която работи с федералното държавно управление.

Но рисковете са прекомерно високи, с цел да бъдат пренебрегнати и е евентуално да порастват с потреблението на на ниска цена, мощен AI се уголемява, сподели той.

Хакерите към този момент употребяват синтетично аудио и видео за фишинг акции, в които се пробват да се показват за върховен бизнес или държавен водач, с цел да получат достъп до чувствителни мрежи. Те също по този начин могат да употребяват AI за писане на злоумишлен код или автоматизиране на някои аспекти на хакерски атаки.

По-притеснителна е опцията войнствени групи да се опитат да употребяват AI, с цел да оказват помощ за производството на биологични или химически оръжия, компенсирайки неналичието на механически опит. Този риск беше включен в обновената оценка на вътрешната опасност на Министерството на вътрешната сигурност, оповестена по-рано тази година.

„ ISIS влезе в Twitter рано и откри способи да употребява обществените медии в своя изгода “, сподели Фаулър. „ Те постоянно търсят идващото нещо, което да прибавят към своя боеприпас. “

Противодействие на възходяща опасност

Законодателите показаха няколко оферти, заявявайки, че има незабавна потребност от деяние.

Sen. Марк Уорнър от Вирджиния, най-хубавият демократ в комисията по разузнаване на Сената, сподели да вземем за пример, че Съединени американски щати би трябвало да улеснят разработчиците на AI да споделят информация за това по какъв начин техните артикули се употребяват от неприятни артисти, без значение дали са екстремисти, незаконни хакери или задгранични шпиони.

„ Очевидно е от края на 2022 година, с общественото стартиране на ChatGPT, че същото обаяние и изпробване с генеративния AI, които обществото е имало, ще се ползва и за редица злонамерени артисти “, сподели Уорнър.

По време на скорошно чуване по отношение на екстремистки закани депутатите от Камарата научиха, че ИД и Ал Кайда са провели обучителни семинари, с цел да оказват помощ на поддръжниците да се научат да употребяват AI.

Законодателството, което беше признато от Камарата на представителите на Съединени американски щати предишния месец, ще изисква от чиновниците в региона на вътрешната сигурност да правят оценка рисковете от AI, подбудени от такива групи всяка година.

Предпазването от злонамерено потребление на AI не се разграничава от подготовката за по-конвенционални офанзиви, сподели конгресменът Август Пфлугер, R-Тексас, вносител на законопроекта.

„ Нашите политики и качества би трябвало да са в крайник със заканите на утрешния ден “, сподели той.